4118云顶集团

新闻中心

AI天生视频以假乱真！4118云顶集团专家对话央视呼吁公众注重甄别，小心引流新套路

宣布时间：2025-12-17

浏览次数：7194

分享：

近年来，天生式人工智能手艺被普遍应用，在为人们提供便当的同时，也让造谣者有了可乘之机。近期就有多起AI天生谣言在网络普遍撒播，误导公众认知，破损网络情形。

今年11月28日网友上传的一段视频，一名模特在展出的车辆旁边，衣着袒露，且做出不雅行动。而当天车企并没有安排模特为车辆宣传，车企选择报警。

12月10日，广州警方转达“车展不雅视频”事务：李某为炫耀小我私家手艺用AI天生虚伪视频，被行拘10日。

珠峰装电梯、长城贴瓷砖、黄河设玻璃护栏是近几年泛起的典范网络谣言。不过最近，网络上珠峰装电梯视频依赖AI天生工具，制作得越发优异，再次席卷而来。

内容虽然荒唐，可是由于撒播普遍，官方紧迫辟谣，西藏相关部分称，现在珠峰暂无装置电梯妄想，网传图文视频为AI天生的虚伪信息。部分营销号使用AI伪造西藏种种打卡景点的虚伪图文视频，用虚伪话术吸引流量，提醒网民切勿相信此类谣言。

明确所有AI天生内容都要“亮明身份”

以上这些使用AI天生的谣言视频，效果都抵达了“以假乱真”的水平，并且在宣布撒播的历程中，都没有标注AI天生标识，其效果就是，给网友错觉以为这是真的。

事实上，今年9月1日起，《人工智能天生合成内容标识步伐》正式施行，明确所有AI天生的文字、图片、视频等内容都要“亮明身份”，标注AI天生的标识。通凡人工智能天生的视频或者图片以及文字标识问题，涉及三个主体：AI天生工具，信息宣布和宣布信息的平台，每一个环节都应标注。

怎样“打上”AI天生标识？总台记者演示

总台记者也针对AI天生标识的标注举行了演示。

总台央视记者崔世杰：我给AI工具一个提醒，让他用雪山、湖泊和老虎制作一张图片，AI给的图片是这样的。这张图就是典范的人工智能天生的图片，AI标识在那里呢，在图片的左上角写有AI天生字样，若是下载到手机中，标识会到右下角。

信息宣布者怎样在自己宣布的信息中打上AI制作的标识呢？以视频号为例，翻开已经宣布的信息，在下边找到这个箭头标记，点开，找到视频标注的选项点击，这里有几个选项——内容为AI制作、内容为虚构剧情，点AI制作。再看视频下方会有一行字，作者提醒，内容为AI手艺制作。

一些人为了博眼球将AI天生标识二次加工给去掉，发到平台上。这时间作为谣言散布的最后守门员，平台就要去识别，并且打上标识。刷短视频时一定看到过这样的文字，在视频下方写着内容可能使用了AI图像编辑手艺，请注重甄别。这行字就是平台识别判断后加上去的。

平台怎样检测AI天生内容？为何有丧家之犬？

有了执律例则，手艺上也会举行标注提醒，为何网络平台还会泛起此类谣言视频？记者走访了视频平台和AI天生研究团队，来看看为何会有部分AI天生谣言成为丧家之犬，进而误导网友。

相关数据显示，短视频平台面临的是天天以亿为单位的网民上传的内容。

某平台生态运营司理陈咏月：现在，平台对AI天生内容的审核接纳机审和人审相团结的方法，也在一直强化识别能力。详细来说，平台通过网络样本，使用AI能力，训练了多个对AIGC内容识别的模子，来识别一条视频内容是否是AI制作的。

那么详细AI识别工具在识别是否为AI天生的作品时，会注重哪些方面呢。

4118云顶集团网络清静专家、中国盘算机学会盘算机清静专委会执行委员潘季明：首先是针对文本的统计特征剖析手艺，寻找AI写作过于平稳、缺乏人味的“机械指纹”。其次是基于深度学习模子的检测手艺，通过对特定天生算法的缺陷举行识别，剖析像素和频域中保存的AI天生伪影，如纹理重复或特定图案。第三是多模态融合检测手艺，使用大模子的通用明确能力来捕获跨模态、高级语义上的纷歧致来实现。

不过平台和专家也坦言，现在的AI工具的识别能力，还无法做到完全准确，其主要缘故原由是AI天生工具在一直成熟，而AI识别工具始终处于追赶状态。这让AI谣言类信息未被检测出来难以阻止。

陈咏月：可是手艺在一直生长，模子识别的效果并纷歧定完全准确。

潘季明：现在主流的检测手艺主要面临三大难题：一是保存理论瓶颈，随着AI模子能力一直增强，其输出的统计特征越来越靠近人类高质量作品，导致理论上仅靠统计指标已无法区分，也就是概率漫衍重叠；其次是文本只需简朴润色或同义词替换，图像只需压缩或截图就能破损水印或伪影，使检测器失效；第三是泛化性缺乏，检测器通常是针对旧模子训练的，面临新的、未见过的AI天生模子，检测效果会显著下降，导致检测始终处于“滞后”状态。

AI提供者、创作者及平台应配合提防AI滥用

专家体现，提防AI滥用不但是识别工具手艺更新问题，同时也要加速建设“数字信任生态系统”。

陈咏月：AI滥用的治理是个系统性工程，网络黑灰产为了利益也会举行手艺升级，还会有更多的手艺对抗。以是对AI滥用的治理仍然需要AI服务提供者、创作者、内容撒播平台、宽大用户配合起劲。

潘季明：通过深化使用多模态融合剖析、动态对抗训练手艺以及区块链存证追溯等手艺，团结内容标识规则、行业统一的检测标准，以及可诠释的检测效果?等治理框架，配合实现?从被动识别到自动验证，从局部判别到全局可信?的识别追踪计划。

注：文章泉源于央视新闻客户端

相关阅读

1、换脸换声、版权侵权......4118云顶集团专家对话央视记者，谈天生式AI被滥用该怎样治理

2、“有图”≠“有真相”！4118云顶集团专家接受央视采访，谈怎样区分AI造假图片

3、一键盗声仅需十几秒！4118云顶集团专家对话央视记者，展现AI克隆声音原理并给出提防建议

4、“清朗”行动狠刹AI滥用歪风，央视对话4118云顶集团专家共推手艺“向善而行”！

上一篇 4118云顶集团出席第三届电子系统工程大会，泛论“AI+清静”双轮驱动下的立异实践

下一篇 4118云顶集团受邀出席鸿蒙办公工业峰会，携手启动擎云星河妄想

最新运动

产品动态让智能体“一键上岗”~4118云顶集团「清静智能体一体机」抢鲜宣布！

2026-04-22

连忙审查

产品声誉 4118云顶集团防火墙一连26年位居海内市场榜首

2026-03-18

连忙审查

推荐新闻

天下首批、级别最高！4118云顶集团获AI服务清静能力评定“建设+检测”双证

审查详情

海内首家！4118云顶集团API清静智能体通过中国信通院数据清静智能体产品能力磨练

审查详情

4118云顶集团一连11届获CNCERT最高级支持单位，重点手艺领域入选最多！

审查详情

4118云顶集团荣获吴文俊人工智能科技前进一等奖

审查详情

4118云顶集团获河南省科学手艺前进奖一等奖

审查详情

推荐产品

解决计划

在线咨询

销售咨询>
手艺支持>
云服务支持>
售前支持>

在线留言

手艺支持>
售前支持>
培训营业>
清静服务>

客户服务热线

400-777-0777
7*24小时服务

联系邮箱

servicing@topsec.com.cn

扫码关注